Sebelum menjadi seorang ahli politik, Rudd menyertai perkhidmatan awam. Pada 1981, beliau bekerja di Jabatan Hal Ehwal Luar dan berkhidmat sebagai duta ke Sweden dan Republik Rakyat China (di mana beliau belajar Bahasa Mandarin dan masih fasih). Pada 1998, Rudd bertanding dan memenangi sebuah kerusi di Parlimen Australia. Pada 2001, beliau menjadi Menteri Luar Bayang dan mengkritik dasar Perdana Menteri John Howard menyokong Amerika Syarikat dalam Perang Iraq.

Pada 4 Disember 2006, Rudd dipilih sebagai ketua Parti Buruh Australia. Hampir setahun kemudian, beliau memimpin partinya menewaskan Parti Liberal Australia dalam pilihan raya 2007.